2015年的时候，有几位大佬基于非平衡热力学提出了一个纯数学的生成模型 (Sohl-Dickstein et al., 2015)。不过那个时候他们没有用代码实现，所以这篇工作并没有火起来。

直到后来斯坦福大学(Song et al., 2019) 和谷歌大脑 (Ho et al., 2020) 有两篇工作延续了15年的工作。再到后来2020年谷歌大脑的几位大佬又把这个模型实现了出来(Ho et al., 2020)，因为这个模型一些极其优秀的特性，所以它现在火了起来。

扩散模型可以做什么？呢它可以做一些。条件生成和非条件生成。在图像、语音、文本三个方向都已经有了一些应用，并且效果比较突出。

比较出圈的工作有我刚介绍的text to image的生成工作比如

OpenAI的GLIDE和 DALL-E 2

谷大脑的 ImageGen

德国海德堡大学的Latent Diffusion

Diffusion model 和 Normalizing Flows, GANs or VAEs 一样，都是将噪声从一些简单的分布转换为一个数据样本，也是神经网络学习从纯噪声开始逐渐去噪数据的过程。 包含两个步骤：

前向和反向过程都要经过时间步ttt，总步长是TTT（DDPM中T=1000T=1000T=1000)。

你从t=0t=0t=0开始，从数据集分布中采样一个真实图片x0x_0x0​。比如你用cifar-10，用cifar-100，用ImageNet，总之就是从你数据集里随机采样一张图片作为x0x_0x0​。

前向过程就是在每一个时间步ttt中都从一个高斯分布中采样一个噪声，将其添加到上一时间步的图像上。给出一个足够大的TTT，和每一时间步中添加噪声的表格，最终在TTT时间步你会获得一个isotropic Gaussian distribution。

我们令q(x0)q(\mathbf x_0)q(x0​)是真实分布，也就是真实的图像的分布。

我们可以从中采样一个图片，也就是x0∼q(x0)\mathbf x_0 \sim q(\mathbf x_0)x0​∼q(x0​) 。

我们设定前向扩散过程q(xt∣xt−1)q(\mathbf x_t|\mathbf x_{t-1})q(xt​∣xt−1​)是给每个时间步ttt添加高斯噪声，这个高斯噪声不是随机选择的，是根据我们预选设定好的方差表（0